人工智能该不该拥有刑事主体资格呢？

原创文章，已得到独家授权，转载请添加公共微信“qmfmggwx2”进行接洽，取得许可后方可转载。对未经许可转载导致的侵权，本编辑部保留追究的权利。

编者按：晚近以来，人工智能研究热度居高不下，具体到刑法领域，讨论最多的问题便是人工智能的刑事主体资格。较多文章在研究人工智能刑事规制问题之时，接受了强、弱人工智能之分，并据此部分承认人工智能的刑事主体资格。而本文对此看法持保留意见，并认为目前不宜将人工智能作为刑法上的责任主体看待，更没有必要对原有的刑事责任体系重构。通过此文，大家可以在肯定论与否定论的观点碰撞之中加深对人工智能刑事主体资格的认识。

作者简介

孙丽杰（1997-），女，山东平度人，中国石油大学（华东）文法学院硕士研究生，研究方向：刑法学。

摘要：人工智能的本质是人类为了自身生产生活而研发的辅助工具，尽管可能会带来刑事方面的风险，但其并没有作为刑事主体资格的可能，更无法改变人机之间主客体的地位。当前人工智能在社会学意义上的自由意志、刑法的适用性、刑罚目的与功能实现方面尚有较大的理论瓶颈，在伦理和哲学方面也有所缺失，不宜将其作为刑法上的责任主体看待，更没有必要对原有的刑事责任体系重构。

关键词：人工智能；刑事主体资格；刑罚目的 ；权利义务

一、引言

2010年以来，人工智能激起了自然科学家们的极大兴趣，当这种热情蔓延到社会科学领域尤其是法学界时，法学家们“忽如一夜春风来，千树万树梨花开”般摇身一变成了人工智能专家，并针对人工智能的法律人格、刑事责任等展开了激烈论辩，仿佛誓要给来自未来的威胁一个法的“紧箍咒”。例如，2011年6月，美国内华达州通过了无人驾驶汽车的法律，该法律规定内华达州交通运输部可以制定相关规则，以规范无人驾驶汽车的测试、安全以及行车问题。2017年10月在沙特阿拉伯未来创投展览会上，机器人索菲娅(Sophia)获颁沙特阿拉伯公民身份，成为世界上第一个拥有公民身份的机器人。人工智能热潮在国外兴起之际，因人工智能侵犯法益的事件也接踵而至。为此， 2017 年1月欧洲议会法律事务委员会召开会议讨论了机器人可能引发的安全风险、道德问题、对人类造成的伤害等情况以及是否应给予机器人“电子人”的法律地位，呼吁制定“人类与人工智能机器人互动的全面规则”。同年同月，美国未来生命研究院召开阿西洛马会议，制定了旨在维护人类利益与安全、应对人工智能挑战的23条人工智能原则。2017 年 12 月 12 日美国共和党和民主党向国会提交了《人工智能未来法案》( Future of Artificial Intelligence Act of 2017) ，建议美国成立联邦人工智能发展与应用咨询委员会，重点关注人工智能对经济发展、劳动就业、隐私保护等方面的影响，并为进一步开展具体行业立法奠定基础。一部由俄罗斯专家起草的机器人法草案----《格里申草案》于2018年公布。该草案阐述了机器人在法律关系与人类社会中的性质与定位，将机器人归入到法人行列而具有主体地位，可以承担因侵害公民和社会法益的责任。

不难发现，学界对人工智能研究的“热”是一种“虚热”，而在实践层面的“冷”却是“真冷”。[1]人工智能无论如何都没有成为法律上“人”可能性，更遑论刑事责任与刑罚。传统的刑法理论与人工智能新兴事物发生碰撞时，我们要做理性的选择与扬弃，法学界的学者们面对人工智能带来的挑战时，应当将初衷回归到人工智能的产品责任、侵权归责、知识产权保护、智慧司法等问题上，而不是迷途于所谓的强人工智能的乌托邦里。质言之，人工智能确实有很大的发展空间，但我们完全不需要担心人工智能本身会对我们造成怎样的影响，而只需要忧虑掌权者会如何利用人工智能。即便未雨绸缪也要适可而止，重回学术研究的理性轨道这才是法学的本来要义。

二、人工智能的溯源与解构

人工智能一词最早见于1956年达特茅斯学院的夏季研讨会中，约翰·麦卡锡对此概念进行构想并在会上提出，他认为人工智能便是让机器的行为看起来与人的行为一样。随后，计算机技术的迅速发展为人工智能奠定了重要基础，算力的大幅提升和信息爆炸使得计算机广泛应用于社会的各行各业，比如机器视觉、智能识别、自动驾驶、语言与图像处理、智能控制等。同时计算机自我学习的方式也在不断演进，从监督学习、半监督学习、无监督学习到强化学习，哲学、计算机科学、数学、神经心理学、伦理学、信息控制学等学科也相继丰富了人工智能的内涵。经过六十多年的发展，人工智能经历了两次繁荣期。到21世纪，大数据、区块链、神经网络技术的突破使得人工智能迎来了第三次繁荣。此时，人工智能的概念逐渐清晰明朗，普遍认为：当下的人工智能指研究人类智能活动的规律，构造具有一定智能的人工系统，研究如何让计算机去完成以往需要人的智力才能胜任的工作，也就是研究如何应用计算机的软硬件来模拟人类某些智能行为的基本理论、方法和技术。所谓的人工强调人力所能而制造，所谓的智能便是通过观察分析环境数据从而做出最优选择以达到目的。

基于人工智能的智能化程度，目前科技界将其分为弱人工智能、强人工智能和超人工智能。弱人工智能是在某一特殊领域远超人类的智能，它的本质仍是背后的人类通过编译程序来设定，本身并不会产生自我意识，不会超越自主程序范围而为。当前的阿尔法GO机器人、人脸识别技术、自动驾驶汽车、机器宠物狗都属于弱人工智能的产物。强人工智能突破了技术“奇点”，指具有自我意识和情感，能够理性辨认外界事物，通过分析推理控制自身行为的系统。[2]强人工智能又可因对人类的模拟程度分为两类：类人的人工智能，即机器的思考和推理就像人的思维一样。非类人的人工智能，即机器产生了和人完全不一样的知觉和意识，使用和人完全不一样的推理方式。超人工智能指对人类已知的所有领域，包括科学创新、医药卫生、通识教育、哲学伦理都远胜于人类的存在。超人工智能存在于遥远的未来，目前人类的水平远远没有达到，本文不作讨论，仅对弱人工智能与强人工智能的刑事主体资格进行阐释。

三、人工智能刑事主体资格的学界论争与评议

人工智能的迅速发展引起了刑法学者的注意，争论的焦点在于人工智能是否具有刑事主体资格，并逐步形成了“肯定说”“否定说”两大观点。

（一）“肯定说”：人工智能具有拟人化的必要

人工智能本就是一个虚无的系统，借助于特殊的机器才能实体化，比如智能机器人、机器狗等。机器本身作为“物”而存在，但随着学者对人工智能创作物知识产权的保护以及自动驾驶侵权责任问题研究的深入，已经有越来越多赞同赋予人工智能法律人格。关于人工智能的法律主体地位，赞同肯定说的学者们将人工智能理想的认为是人类的伙伴，而非奴隶或者主人。其中刘宪权教授认为没有生命的人工智能在自主意识支配下所实施的犯罪行为与有生命的自然人无异。因此，完全有理由相信未来赋予人工智能法律人格是合情合理的。另外，刘宪权教授对人工智能的犯罪行为还创设了新的“刑种”，完善了归责原则的适用，誓要将以智能机器人为代表的人工智能纳入我国刑罚体系中去。郭少飞教授考虑到人工智能构成的基本单元，将其拟制为“电子人”。[3]电子人具有观察、记忆、推理的理性能力，同时符合道德标准和机器伦理，在刑事责任与风险的分散、社会结构的优化、人机多元文化的繁荣以及道德与伦理的成熟方面，均给予了电子人成为法律主体的成长空间。张志坚教授认为人工智能在财产性方面具有意思能力和责任能力，应当参考法人的属性，定性为“电子法人”，隶属于法人的一种。[4]当然，这种“电子法人”排除了人身方面的权利、义务与责任，仅在因“擅自”行为导致的侵权行为时与设计者、生产者做好权责分担，平衡各方主体的利益，实现交易的便捷与社会的公平正义。

总结肯定说观点的主张，主要有以下几点：1.在未来强人工智能下，智能机器人等已经产生自我意识，这种自我意识可以使机器人自主做出决定并付诸实施。只要其行为对人类财产及生命安全造成损害，就应当承担相应的罪责。2.人工智能毕竟不是自然人或者法人，对这类特殊的“罪犯”而言，传统的刑罚没有任何意义，应当创设新的罪名和刑种。3.对于人工智能的归责也应当突破传统的理论，鉴于人工智能拥有辨认能力与控制能力，应当对人工智能与自然人的刑事责任进行合理分担，并允许其独立承担责任。可见，学者们构建了这样的一个世界，人类以法律规则约束着智商和情商远远高于自身的人工智能，并掌握着对违反规则的人工智能的“生杀大权”。彼时，人类仍然处于中心地位，人工智能是人类的伙伴、帮手甚至是妻子、儿女，那时的世界就如梦境里的乌托邦一样：完美而又理想，智能而又有序，安全而又和谐。

（二）“否定说”：将人工智能拟人过于理想化

关于人工智能是否具有刑事主体资格，否定说学者同样不在少数。皮勇认为，赋予人工智能刑事主体资格会引发刑法适用层面的缺憾，非常明显的是传统刑法规制手段如管制拘役等对人工智能毫无作用。[5]时方主张，人工智能并不具备自然人所内涵的自然理性（包括认识要素与意志要素），不符合刑事主体法理层面的本质要求。[6]刘洪华强调人工智能智商有余而情商不足，长于计算但不会算计，无法与自然人相提并论。[7]

综上，总结否定说学者的主张，约略可见以下几个方面：其一，虚无的前提。赞成将人工智能定位刑事责任主体的学者坚信所谓拥有自我意识的类人机器不久就会出现，甚至有的学者预估了时间：强人工智能将在2030年前后实现，超人工智能将于2045年降临。[8]那时的人工智能与人无异，有着远超人类的智慧与情感，但理想家们高估了科技发展的速度，没有低下头观察人工智能的技术瓶颈，仅凭想象力就试图将人类文明带入人工智能的幻境中无疑痴人说梦。

其二，逻辑的混乱。当前我国很多学者赞同赋予强人工智能法律人格，并构建了未来人工智能刑事责任的归责原则及处罚方式。但在解释归责原则时又主张重视开发者、制作者、修改者的责任，强调人工智能与自然人责任的合理分担。既然强人工智能完全具有责任承担能力，能够产生自我意识，必然也不会受到开发制作者的影响，应独立承担责任。责任分担应当是弱人共智能应当考虑的问题。甚至有的学者因为1981年，日本汽车厂机器人“杀死”一名37岁的雇员；[9]2015年，德国大众工厂机械臂误以为工人为零件而将其压死，以及机器人索菲亚的一句“我要毁灭人类”而极度恐惧，认为人工智能犯罪已经出现，用刑法进行规制迫在眉睫。但事实证明所谓的机器杀人不过是工人自己操作不当引发的悲剧，和人工智能没有任何关系。而索菲亚的灭亡人类的论调，也不过是程序员预先设定的代码，本身就是宣传的噱头和营销的玩物而已。可见，有的学者们在论述时两种程度人工智能的交叉导致其逻辑的混乱，当然这种逻辑错误在否定说学者们也经常出现。造成这种困境的原因便是学者们过于沉浸于在应然层面对人工智能法律主体进行讨论，面对传统刑法主体蜕变，学者们纷纷逐风发文，展现出了空前的自信。但这种自信一旦遭遇刑法实然层面可操作性问题上时，便显得十分苍白无力。[10]

其三，前后的矛盾。若强人工智能真的到来，人类确实克服了技术上的瓶颈，未来的社会同时存在着人类文明与智能文明。这时，我们不得不考虑这样几个问题：既然强人工智能有自我意识和自主学习能力，无论是智商还是情商都是人类远不能及的，人类能否控制远超自身的“神”么？人类显然不会接受蚂蚁的社会规则和行为方式，因为我们可以轻松碾死他们。与人工智能相比，我们不就是自不量力的蚂蚁么。许多科幻电影，如《我，机器人》就向人们介绍了一个会做梦并且心里藏着秘密的智能机器人桑尼，更展示了一群因错误理解机器人三大法则而试图屠杀人类的类人机器人NS–5。我想，考虑将人工智能是否具有刑事主体资格都是多余的，思考人类文明的存在和延续才是当务之急。所谓的人工智能究竟是福利还是丧钟，谁都无法回答。退一万步讲，假设人类真的在强人工智能形成之初就对其规模、能力进行合理地控制，能够在保证人类社会安全的情况下按照人类的意愿工作、学习，那所谓的自我意识本质还是人类的意识，这样的人工智能仍离不开人类的。

其四，狭隘的视野。赋予人工智能刑事主体资格只是研究人工智能与法律关系的最初的一小步。不仅要在定罪认罚方面做出具体解释，还应当将其置于整个刑法体系，考虑增设罪名、衡量罪数、量刑、自首、立功、与人类的共同犯罪、基于特殊身份的不作为犯罪、刑罚执行等等。在整个法律体系中，也要顾及对民法、经济法、行政法甚至是宪法的修改。而将其放在整个社会视角上，我们又不得不考虑哲学、伦理学、社会学、心理学相互的衔接与补充。可见，这是人工智能对人文社会传统格局的颠覆，而并非仅对刑法或者法律领域的挑战。

四、法理廓清：人工智能刑事主体资格的再审视

由是观之，不管是强人工智能还是弱人工智能都不具有成为“人”的条件，针对学者们对两种人工智能的混淆，笔者认为在此特意分开对刑事主体资格进行否定性考察。

（一）否认弱人工智能刑事主体资格的考察

弱人工智能时代的机器人本质是一种为人类服务的工具，且只在特定领域拥有远超人类的智慧。Alpha Go只能在棋盘上耀武扬威，却不可在卫生清洁方面班门弄斧；特斯拉自动驾驶系统极大便利了人们出行，避免了酒驾、醉驾、疲劳驾驶可能导致的事故，但若把它放在谷歌翻译器中则一无是处。在自由意志方面，弱人工智能显然是没有自我的意识的，不管是基于神经网络的深度学习，还是对人类感官的高度模拟，究其根本，是人类通过编译代码组成特定的程序所决定。在人类指令下，程序通过对海量数据的暴力穷举和搜索，分析变量进行数据建模寻找最理想的路径，甚至做出预测和判断。[11]当然，现阶段的人工智能只能在限定的程序中进行计算，在给定的数据中搜索。一个被赋予加减计算程序的机器人，可以轻松计算几十位或上百位数的运算，却不能在乘除运算中得出结果。它不可能像人类一样，因为苹果砸到头上而开始思考万有引力。所谓的类人属性，只不过是经过人类改造在某些方面能够像人类一样智能化处理，技术水平和伦理基础无法支持其成为一个“人”。因此，弱人工智能在学习工作过程中，发生侵犯法益的事件，无非两种情形：一则是设计者、制造者、修改者故意植入程序，使得智能机器不得不按照程序从事犯罪行为；二则机器本身出现不可预见的故障或者当事人操作不当造成的意外事故。前面提到的日本汽车厂机器人、德国大众工厂机械臂均属于此种类型。在前者，人工智能完全成为了人类犯罪的附属工具，犯罪主体应当是自然人，后者则可归类为不可抗力或意外事件。

有学者提出历史上奴隶、妇女、黑人、法人甚至动物都作为法律上的主体而存在，人工智能的智商与能力远超过动物，为何不能具有法律人格？由此看来，法律人格是否赋予，不是能不能的问题，而是立法者想不想的问题。此外，学者们尤其热衷于法人与人工智能比较。法人无血无肉，没有可以受罚的身躯，同时法人也没有自主意识，不影响其成为法律主体，在刑法中同样规定了单位犯罪的罪名，比如生产、销售伪劣商品罪、高利转贷罪；非法吸收公众存款罪；伪造、变造金融票证罪、强迫职工劳动罪、私分罚没财物罪等等，遍及分则的各类罪名。因此，人工智能也应当具有刑事责任主体的资格。在这里，他们显然没有刺破法人的面纱。法人虽然不是一个实体，但正是由一个个自然人构成的。法律之所以考虑将法人赋予法律人格，正是考虑了经济需求和社会价值。正是基于风险防控和利润最大化的考虑，将法人与个人的权利义务分离，从而限制自然人的责任实现公司的持续运营。同时，在处理单位犯罪时，自然人的情感动机和认识水平也是裁判者考量的重要因素，在这层意义上，刑法将法人作为刑事责任主体是有道理的。[12]而人工智能与法人相比，在未来人机关系模糊的情况下，人工智能难以拥有独立的地位。其次，赋予人工智能法律人格目的是为了解决其自主行为的权利、义务以及责任分配关系，但人工智能无法做到人格独立与财产独立，对其解决社会问题没有突破性的意义，这就容易使得人工智能主体资格虚置而变得多余。

（二）否认强人工智能刑事责任主体的考察

因为强人工智能发生在未来，当下所有的人工智能均属于弱人工智能水平，借鉴意义不大。但我们还是应当假想出这样一个“人”。它有着自主意识和人类情感，类人的表皮下是不断运转的机器零件和电子数据。它的IQ和EQ是人类难以望其项背的，但即使这样近乎“神”的存在，仍然要受到人类文明规则和道德的约束。关于判定强人工智能是否有刑事主体资格，我们就要参照自然人、法人作为刑事主体必须具备哪些要件，若人工智能同样满足这些条件，那我们就可以认定人工智能有作为刑事主体的可能性。笔者认为，具有刑事主体资格需要满足以下三个条件：第一，具有自由意志的理性主体，即社会学意义上的辨认能力与控制能力。第二，刑罚的目的与功能得以实现。第三，权利、义务、责任的统一。然而，强人工智能都难以满足这三个条件。

其一，自由意志的缺失。所谓的意志自由，是指有意选择行为的自由。哲学上讲，这种自由意志是对客观世界的主观臆想，是在高度复杂的人脑决定的思维、感觉的集合，是在长期历史进化和生活经验中得来的。意志自由的存在与否对于认定刑事责任主体具有重要意义。人之所以成为人，不仅是在自然界中作为灵长类动物实体存在，更是在社会关系网中与他人交流联系而抽象的存在。先天的躯体、头脑只是让我们表面上有血有肉，后天的经历、思考、感受、观察、获取才让我们拥有了灵魂与人格。可以说，正是人类独一无二的塑造过程才让人类社会具有可变性和多样性。刑罚之所以可以对犯罪人进行责难，是因为犯罪人具有自由意志，表现在具有社会学意义上的辨认能力和控制能力。辨认能力是指行为人对其行为的动机、目的、方式以及引起的刑法上的后果有一个清醒的认识，他可以辨别是非善恶，具有一般人的理性思维。而控制能力则是行为人可以根据自己的脑中的构想决定是否实施该行为，如何实施该行为。正因为人类情感与理性的融合，人类才可以成为刑法意义上的犯罪主体和责任主体，刑罚的正当性也可以实现。刑法调整的是法律上的人，而非肉体上的人，人在社会关系中形成的身份、权利、义务、情感、伦理使得人具有法律上的人格。尽管现代的法律将主题扩展到所有的生物人，但这并不意味着两者可以混为一谈。[13]反观强人工智能，学者们异口同声的主张人工智能有自我意识，却未能解释机器人的自我意识从何而来，也许他们认为这是自然科学家们的任务，也许他们不愿面对这个难以回答的问题。另外，是否具有意志自由不能仅观察机器，因为即使是人也有可能存在无法判定自己是否具有意志自由的情形。历史上阿兰·麦席森·图灵在1950年曾设计图灵测试：即如果电脑能在5分钟内回答由人类测试者提出的一系列问题，且其超过30%的回答让测试者误认为是人类所答，则电脑通过测试，则被认为具有人工智能[14]。1980年，哲学家西尔勒提出了名为“中文房间”的假想实验来反驳图灵的人工智能测试。但不管是“图灵测试”还是“中文房间”，都是对问题是与否的回答，并没有说明得出答案的理由。这就需要借助理性的第三方，第三方判断的标准也不应当是仅仅给出了正确答案，而是给出这个答案的逻辑推理。置换另一个环境，人工智能是否还能给出问题答案和理由，我想这是人工智能不可能做到的[15]。所以现在乃至不远的未来，我们仍不能认定人工智能具有意志自由。

其二，刑罚难以适用。刑罚在诸多法律制裁中可谓是最严厉的，惩罚所带来的痛苦是刑罚的本质特征。[16]自然人犯罪，刑罚的功能与目的较为容易实现。首先，刑罚的惩罚功能，源自刑罚的痛苦属性，这种痛苦既包括身体上的，例如限制或剥夺人身自由、剥夺生命；也包括精神上的，如长时间监禁与社会的脱节。作为人工智能，传统的徒刑、死刑、剥夺政治权利、罚金对其没有任何作用和意义。人工智能在一定程度上是永生的，机械的躯壳可以被毁灭，但它的智能却会因转移或者备份而存在。刑罚的威慑功能与预防功能强调震慑犯罪人以及潜在的危险分子，达到使罪犯不敢再犯，危险分子不敢犯罪的目的。威慑之所以存在是人类对刑罚严厉性的敬畏，通过惩一儆百让所有人得到警戒。人工智能不会因内心对刑法的恐惧而衍生敬畏，也许人类对其盗窃罪惩罚后，其不再犯同类犯罪；不久却侵犯另一法益，如故意伤害人类。刑罚的感化与教育功能旨在消除犯罪人的抵触心理，使之切实认识到行为的危害性从而认罪伏法。人工智能难以会被晓之以情，动之以理，更不会对政府的宽大处理感激涕零，决心重新做“人”。可以说刑罚对于人工智能来说无异于对牛弹琴，人工智能无法体会犯罪的快感、惩罚的痛苦、宽容的兴奋。另外，刑罚的目的同样难以达到，刑罚的目的可分为报应目的和预防目的。报应目的指根据犯罪人的主观恶意程度实施道德谴责与法律责难。我们无法分析人工智能犯罪时的心理状态，更无法得出案件的性质究竟是故意、过失亦或是意外事件。这种否定的伦理评价会遭遇极为艰难的处境。其次，预防功能也难以实现。一般预防和特殊预防都追求防止犯罪发生的社会功利效果，[17]费尔巴哈提出“心理强制说”，人类犯罪最重要的动因便是从犯罪行为中得到潜在的快乐高于不能得到该快乐时潜在的不快，正是这种趋乐避苦动机的驱使，人类便会在苦与乐之间权衡并实施犯罪。[18]同时若认为刑罚带来的痛苦远大于犯罪的快感，对于刑罚尤其是对失去时间的的恐惧，这种恐惧来自天生的肉体和心理，从而使得人们不得不谨慎对待犯罪。[19]人工智能不会因时间流逝而衰老和消亡，刑罚的目的得不到预期的效果。其次在犯罪动机与目的方面，犯罪是在人的自由意志支配下的身体动静，这种身体动静造成的结果便是具有刑法意义的危害。那基于人工智能意志的危害行为可否认定为犯罪，这与“刑罚是调整人的法律”的理念又有冲突。从犯罪目是指犯罪人主观上通过犯罪行为达到某种结果的心理态度。对人工智能来说，会因为爱上一个男人而杀死与他亲近的女人么？会因为在工作中被人类职责而伤害人类么？这种基于人脑复杂性的七情六欲导致的犯罪人工智能可以实现么？其次，人工智能的犯罪动机是否也会和人类一样，为了钱财、为了情感、为了追求刺激而却侵害别人的法益？这些都包含复杂的逻辑与推理，蕴含着深厚的心理学知识。

其三，难以与刑法权利义务相契合。在未来人工智能权利、义务与责任承担方面，法学界同样面临着极大地难题。在赋予权利方面：正如奴隶可以享有与自由人平等的权利，妇女可以享受与男人平等的权利，黑人可以享有与白人平等的权利一样，人工智能同样可以享有属于他们的权利。当然这种权利也不同于人类世界的权利，比如对创作的作品的知识产权、对数据资源的共享与占有权、对行为不受非法干涉以及法律救济权，甚至是恋爱结婚的权利。但权利的给予是否应当有个限度，需要多大的限度？换个角度思考，倘若未来人工智能真的可以为人从出生到死亡提供极为优越的生活质量，那我们还会时刻想着风险防控么？电影《机器人总动员》就向我们描绘了这样一幅场景：人类创造了各种机器人，它们提供无微不至的服务使得人类的变得肥胖且四肢退化成肉球，后半生只能在轮椅上活动。这种对物质无休止的追求终于让地球不堪重负，人类被迫在飞船上流浪。有人曾说：人类不会愚蠢到把所有的权力交给机器人，但是人类很容易让自己陷入对机器人过度依赖的怪圈，以至于别无选择。[20]或许为人工智能智能制定规则、规划法治蓝图比突破技术瓶颈更为艰难，但一昧追求人工智能的理想化状态，而忽略现世的危机无异于自掘坟墓。在义务方面也有两点需要考虑：一个是属于人工智能单独的义务，另一个则是与设计者、制作者、生产者的义务。人工智能最初的意识与思想需要“大脑”产生，而“大脑”最终还是需要人类设计，机械躯体同样需要人类参与制造。当人工智能故意毁坏财物、伤害人类时，是否需要承担未尽风险控制与行为监督的义务的责任。同样，若人工智能被赋予身份，如医生、警察、教师、军人是否能够追究其不作为而侵害法益的责任？另外，又当如何对人工智能正当防卫、紧急避险的认定？这些问题都是牵一发而动全身的。法学家尤其是刑法学家们是否真正做好了迎接人工智能的准备，还是徒增学术泡沫，形如空中阁楼？在责任承担方面：人工智能不可能承担财产方面的责任，于是有的学者提出通过建立保险、基金的方式对法益受害的人类提供赔偿，但对于保险基金的资金来源，他们却难以回答。人工智能显然没有这个能力，如果让社会与政府承担的话，无疑是在给人工智能的犯罪行为背书，这与弱人工智能还有何异？人工智能同样不能承担人身方面的责任，人工智能本身是无形的，它的实体化--机器人又忽略时间流逝、自由受限、精神折磨带来的痛苦，更不可能通过断电、关机、重启、一键休眠方式制止机器人，传统的刑罚对其毫无意义。对此，也有学者提出可以通过数据删除、销毁机器、修改程序等方式对刑罚体系重构。[21]删除数据、修改程序以抹去智能机器人的犯罪记忆与邪恶意识确实可行，但原有的数据、程序是从何而来？若是人类赋予的，那仍是背后的人类在控制着。那若是智能机器人自然生成的，删除之后会不会重新衍生出犯罪意图？删除之前机器人又会不会自动备份？机器人是否会应对人类的刑罚而进化“反修改程序”与“反删除程序”？而对于销毁更是无稽之谈，实体化的机器不过是一副躯壳而已，它不同于人类，人类肉体的消亡也就意味着意识的消亡。但智能却可以在不同的躯壳之间转换，即使毁灭A型号，也许会有B型号、C型号....机器人之间同样可以将意识自由传播，生生不息。

五、结语

无论我们是否做好准备，人工智能正逐渐向我们走来。但人工智能无论如何发展，始终是人类探索世界的工具，无论这种工具多么高级，只可以作为法律上的客体看待，而不能想当然将其拟制为法律上的“人”。人类是理性、欲望、情感的集合，而这种复合属性是人工智能无法模拟和计算的。[22]刑法预设的主体是一个理性人和谨慎人，这也是刑罚可以实现目的和功能的前提。或许所谓的强人工智能真的可以颠覆法律传统的认知，或许科幻电影里的情节将在不久的现实中出现，但作为严谨的法律人来讲，超前立法不等于象征立法，未雨绸缪也绝非杞人忧天，对人工智能的发展要辩证的看待。也许法学家们寄希望机器人可以在犯罪时更新他们的经验和常识，不会再次走向犯罪，在这一点上它们可能比我们做的更好。我相信奇点终将来临，但这仍需要一段很长的路要走，AI热潮中我们应当将重心放在弱人工智能（当前的人工智能）中去，构建完善的归责原则及承担方式，至于“明天”，就交给明天的“他们”。

参考文献

［1］左卫民.中国法律人工智能的再思考［J］.环球法律评论，2019（2）：53.

［2］［美］雷·库兹韦尔. 奇点临近[M].李庆诚等译.机械工业出版社 2011：80-81.

［3］郭少飞.电子人法律主体论［J］.东方法学，2018（3）：38.

［4］张志坚.论人工智能的电子法人地位［J］，现代法学.2019（5）:76.

［5］皮勇.人工智能刑事法治的基本问题［J］.比较法研究，2018（6）：149-157.

［6］时方.人工智能刑事主体地位之否定［J］.法律科学，2018(6）68-72.

［7］刘洪华.人工智能法律主体资格的否定及其法律规制构想［J］.北方法学，2019(4):56-67.

［8］〔美〕雷·库兹韦尔.奇点临近［M］.李庆诚等译.机械工业出版社 2011 ：80-81.

［9］Yueh-Hsuan Weng，Chien-Hsun Chen ＆ Chuen-Tsai Sun，“Toward the Human-Robot Co-Existence Society:On Safety Intelligence for Next Generation Robots”，in 1 INT．J．Soc．ROBOT ( 2009 ) ，pp．267 ，273 ．

［10］王燕玲.人工智能时代的刑法问题与应对思路［J］.政治与法律，2019(1)：22-35.

［11］叶良芳.人工智能是适格主体么？［J］.环球法律评论，2019年(4)：67-79.

［12］刘洪华.人工智能法律主体资格的否定及其法律规制构想［J］.北方法学，2019(4):56-67.

［13］陈姿含.人工智能算法中的法律主体性危机［J］.法律科学，2019(4)：42-45.

［14］ See Mark McKamey，“Legal Technology: Artificial Intelligence and the Future of Law Practice”，in 22 Appeal: Rev．Current L．＆ L．Reform ( 2017 ) ，pp．46 － 50 .

［15］储陈城.人工智能时代刑法的立场和功能［J］.中国刑事法杂志，2018(6)：77-93.

［16］曲新久.刑法学原理（第二版）［M］.高等级教育出版社，2014（12）：170-175.

［17］陈兴良.规范刑法学［M］.中国人民大学出版社，2015（12）：155-157

［18］Oliver Rosbach：Strafrecht und Gesellschaft bei Anselmvon Feuerbach:［EB］.http//www.rewi.hu-berlin.de/FHI/articles/0012rosbach.html,2005-05-13.

［19］刘艳红.人工智能法学研究的反智能化批判［J］.东方法学，2019(5)：123.

［20］［美］瑞恩·卡洛 迈克尔·弗鲁姆金：人工智能与法律的对话［M］陈吉栋译，2018（8）：180-182.

［21］刘宪权.人工智能时代刑事责任与刑罚体系的重构［J］..政治与法律，2019(3):97.

［22］龙文懋.人工智能法律主体地位的法哲学思考［J］，法律科学，2018(5)：26.

青苗法鸣向全体青年学人进行长期征稿和专题征稿

一、长期征稿：

主要推送法学、文学、哲学、政治学、社会学、经济学等人文社会科学学科的学术类、思想类稿件，体裁不限，论文、时评、书评、影评、案例分析、译文等皆可。

以来稿质量为采用之标准，欢迎篇幅适中、论证详实、观点独到的稿件，来稿字数原则上不少于3000字。不对作者身份做要求，鼓励本科生练笔发声、交流进步。

为规范用稿，提高编辑质量和效率，来稿请以Word文档通过附件发至投稿邮箱：[e-mail]，并在邮件标题注明“投稿青苗法鸣”，邮件正文中附上150字内的作者简介（内容不限，需包含作者姓名等基本信息，亦可附上照片）。对于所收稿件，我们会尽快安排评审，并在3天内回复审稿结果。

稿酬等详情请点击： 稿酬有多好？够买一箱钟薛高！

二、专题征稿：

1.针对本次的短期专题征稿，我们将对收稿文章的基础稿酬提高200%，激励性稿酬不变。收稿的质量要求仍保持不变。务必在来信标题中注明“投稿青苗法鸣+专题征稿+xxxx”。期限及文章要求请点击：投稿，一键擦亮你的520曝光值

2.本轮专题征稿聚焦的主题

1) 民法典时代的民法学术与实务

2) 人工智能领域相关法律问题

3) 互联网平台反垄断的理论与实务问题

4) 同性情侣同居期间的人身与财产关系

5) 中国共产党百年的法治建设史

6) 传染病防治领域的法治发展

7) 以骑手为例的新型劳务（劳动）关系的法律适用

8) 离婚冷静期适用的理论与实务分析

本文责编 ✎ 稻壳豚

本期编辑 ✎   Aone

推荐阅读

联系我们

长期收稿邮箱：[e-mail]

社群交流请添加公共微信：

公共微信1：qmfmggwx  

公共微信2：qmfmggwx2

付费咨询与讲座请添加小助手微信：qfxzsggwx

商务合作请添加微信：Fuermodian